Boosting


Boosting adalah pembelajaran metode ensemble meta algoritma untuk terutama mengurangi bias, dan juga varians.[1] Berbeda halnya dengan bagging dan random forest yang mendapatkan hasil prediksi dari proses bootstrap, Boosting mengacu pada kumpulan algoritma yang dapat mengkonversi weak learners untuk strong learners. Prinsip utama dari boosting adalah menyesuaikan urutan weak learners hanya sedikit lebih baik daripada tebakan acak, sementara strong learners dekat dengan kinerja sempurna seperti pohon keputusan kecil.[2] Setiap kali pembuatan pohon, data yang digunakan tetap seperti semula tetapi memiliki sebaran bobot yang berbeda dalam tiap iterasi. Penggunaan bobot juga dilakukan pada saat proses penggabungan prediksi akhir dari banyak pohon yang dihasilkan melalui klasifikasi atau penjumlahan regresi.[3] Boosting juga dikanal dengan sebutan AdaBoost.

  1. ^ https://web.archive.org/web/20150119081741/http://oz.berkeley.edu/~breiman/arcall96.pdf
  2. ^ http://www2.islab.ntua.gr/attachments/article/86/Ensemble%20methods%20-%20Zhou.pdf[pranala nonaktif permanen]
  3. ^ "Salinan arsip" (PDF). Diarsipkan dari versi asli (PDF) tanggal 2018-01-27. Diakses tanggal 2018-05-12. 

Developed by StudentB